Microsoft công bố nền tảng tính toán Azure tại Blackwell, tập trung vào HPC với AMD EPYC sử dụng HBM
Microsoft đẩy mạnh danh mục đầu tư AI với tích hợp NVIDIA Blackwell và AMD EPYC tùy chỉnh tại sự kiện Ignite.
Microsoft đã công bố những bước phát triển đột phá trong danh mục điện toán AI tại sự kiện Ignite gần đây, bao gồm tích hợp GPU NVIDIA Blackwell và chip AMD EPYC "Genova" tùy chỉnh với bộ nhớ HBM vào nền tảng Azure. Đây là một phần trong chiến lược mở rộng các dịch vụ Azure AI, kết hợp kiến trúc tiên tiến và cải thiện các hệ thống hiện có.
"Microsoft đang tăng cường đáng kể các dịch vụ Azure AI bằng cách tích hợp các kiến trúc mới, bao gồm CPU NVIDIA Blackwell và AMD EPYC tùy chỉnh," phát biểu từ sự kiện.
Với cơ sở hạ tầng điện toán AI rộng lớn, Microsoft đã khẳng định vị thế hàng đầu trong việc cung cấp dịch vụ AI đến công chúng. Tại sự kiện, công ty đã công bố việc sử dụng GPU NVIDIA Blackwell trong nền tảng Azure, nổi bật với Azure ND GB200 V6, máy ảo đầu tiên của Microsoft được xây dựng trên kiến trúc Blackwell.
Thông số kỹ thuật của Azure ND GB200 V6
Máy ảo Azure ND GB200 V6 sử dụng hai siêu chip GB200 Grace Blackwell, mỗi chip bao gồm:
- Hai GPU Blackwell hiệu suất cao.
- CPU Grace tích hợp, được kết nối với nhau qua giao diện NVLink của NVIDIA.
Đặc biệt, với khả năng liên kết thông qua nhiều khay NVLink, Microsoft có thể triển khai tới 18 máy chủ tính toán trên một nền tảng duy nhất, mang lại tổng cộng 72 GPU NVIDIA Blackwell. Khả năng mở rộng của hệ thống được tối ưu hóa nhờ công nghệ vải Infiniband từ NVIDIA, đảm bảo hiệu suất vượt trội và khả năng kết nối mạnh mẽ.
Microsoft đang tận dụng tối đa các kiến trúc AI tiên tiến để củng cố vị trí dẫn đầu của mình, đưa các giải pháp AI mạnh mẽ hơn đến với các doanh nghiệp và người dùng toàn cầu.
Microsoft mở rộng danh mục Azure với Azure ND GB200 và HBv5 VM cho ứng dụng HPC và AI.
Azure ND GB200, hiện đang trong giai đoạn xem trước riêng với một số đối tác được chọn, sẽ sớm được Microsoft triển khai rộng rãi hơn. Đồng thời, Microsoft đã công bố một máy ảo mới trên nền tảng Azure, Azure HBv5, được thiết kế đặc biệt cho các ứng dụng HPC (High-Performance Computing) chuyên sâu về băng thông bộ nhớ.
Azure HBv5: Máy ảo hiệu suất cao tối ưu hóa với AMD EPYC
Microsoft đã hợp tác với AMD để sử dụng CPU EPYC thế hệ thứ 4, mang lại hiệu năng mạnh mẽ và hiệu quả chi phí tối ưu cho khối lượng công việc HPC. Dưới đây là các thông số kỹ thuật của Azure HBv5:
- Băng thông bộ nhớ: 6,9 TB/s (STREAM Triad) với 400-450 GB RAM (HBM3).
- Bộ nhớ trên mỗi lõi: Lên đến 9 GB, có thể cấu hình tùy theo nhu cầu khách hàng.
- CPU: Tối đa 352 lõi AMD EPYC Zen 4 với tần số tối đa 4 GHz, cấu hình tùy chỉnh.
- Infinity Fabric: Tổng băng thông Infinity Fabric cao nhất từng có trên CPU AMD EPYC.
- Thiết kế một người thuê: SMT bị vô hiệu hóa, mỗi máy chủ chỉ chứa một VM.
- Infiniband: 800 GB/s qua NVIDIA Quantum-2 Infiniband, phân bổ 200 GB/s cho mỗi SoC CPU.
- Khả năng mở rộng: Azure VMSS Flex hỗ trợ mở rộng khối lượng công việc MPI lên hàng trăm nghìn lõi CPU được tăng tốc bởi HBM.
- Mạng tăng tốc: 160 Gbps Azure Accelerated Networking nhờ Azure Boost thế hệ thứ hai.
- Lưu trữ NVMe: 14 TB SSD NVMe cục bộ, cung cấp tốc độ đọc lên đến 50 GB/s và tốc độ ghi 30 GB/s.
Ứng dụng Azure HBv5
HBv5 được thiết kế để hỗ trợ các ứng dụng HPC phức tạp và khối lượng công việc yêu cầu băng thông bộ nhớ cao, chẳng hạn như mô phỏng khoa học, phân tích tài chính và các tác vụ kỹ thuật tiên tiến.
Với các bước tiến này, Microsoft tiếp tục khẳng định vị thế hàng đầu trong cung cấp giải pháp HPC và AI, đồng thời đáp ứng nhu cầu ngày càng tăng của khách hàng toàn cầu về hiệu năng tính toán cao cấp.
Microsoft nâng cấp Azure HBv5 VM với hiệu suất gấp 20 lần thế hệ trước, khẳng định vị thế dẫn đầu thị trường HPC.
Microsoft tiết lộ rằng họ đã cải thiện hiệu suất của Azure HBv5 VM lên đến 20 lần so với các máy ảo thế hệ trước. Đây là minh chứng rõ ràng cho sự vượt trội của nền tảng AMD EPYC trên thị trường, khi không chỉ cạnh tranh mà còn vượt qua các giải pháp của Intel trong nhiều trường hợp.
Với những nâng cấp này, danh mục điện toán AI của Microsoft đang được định hình để trở thành một trong những nền tảng mạnh mẽ và toàn diện nhất, cho phép công ty khai thác tối đa tiềm năng của làn sóng công nghệ AI.
Nguồn: wccftech.com/microsoft-nvidia-blackwell-high-end-azure-ai-platform-hpc-focused-azure-amd-epyc-hbm/